Năm 530, Hiếu Trang đế phục kích giết Nhĩ Chu Vinh và Nguyên Thiên Mục ở Lạc Dương. Em họ Vinh là Nhĩ Chu Trọng Viễn, Nhĩ Chu Độ Luật, cháu Vinh là Nhĩ Chu Triệu, Nhĩ Chu Thế Long kéo đến Lạc Dương báo thù. Nhĩ Chu Triệu làm chủ Thái Nguyên, vốn là sào huyệt của Nhĩ Chu Vinh, cho người gọi Hoan, nhưng Hoan từ chối.

Hiếu Trang đế một mặt xuống chiếu Cần vương, triệu binh mã các lộ về cứu giá, một mặt tìm cách chống lại quân gia tộc Nhĩ Chu. Lúc bấy giờ mùa hạ, Hiếu Trang đế cho người đốt Hà Kiều (cầu bắt ngang sông Hoàng Hà), cho rằng kỵ binh của Nhĩ Chu Triệu không thể sang sông. Không ngờ Triệu kiếm được nơi nước thấp, vượt sông, tập kích Lạc Dương, bắt sống Hiếu Trang đế, giải về Tấn Dương. Cao Hoan gửi thư khuyên Triệu không nên giết vua, song Triệu không nghe, giết Hiếu Trang đế, lập Nguyên Diệp lên ngôi.

Lấy cớ Cần vương của Hiếu Trang đế, Hột Đậu Lăng Bột Phán từ phía bắc đánh Thái Nguyên. Nhĩ Chu Triệu không đối phó nổi, nhân đó, Hoan thuyết phục Triệu giao cho Hoan thống lĩnh hàng quân của Cát Vinh khi trước giúp mình chống Bột Phán. Bột Phán cuối cùng bị giết. Với quân mã trong tay, Hoan dẫn quân vượt núi Thái Hàng kéo sang phía đông lên Hà Bắc, tách mình khỏi vòng ảnh hưởng của họ Nhĩ Chu.[2]

Lúc ấy, nội bộ họ Nhĩ Chu có nhiều bất hòa. Cao Hoan bấy giờ sinh lòng muốn thảo phạt họ Nhĩ Chu. Hoan thu phục anh em Cao Càn, Cao Ngang, bấy giờ đang làm tướng cướp ở Sơn Đông, sau cát cứ khu vực Tín Đô rất có thanh thế, nhằm phát triển thế lực quân phiệt. Để tăng thêm vây cánh, Nhĩ Chu Triệu không nghe theo lời Mộ Dung Thiệu Tông, kết nghĩa huynh đệ với Cao Hoan. Hoan cũng vờ vịt nhận lời, nhằm làm Triệu lơ là phòng bị.[1]

Nhĩ Chu Độ Luật cùng với Nhĩ Chu Thế Long, Nhĩ Chu Ngạn Bá, Nhĩ Chu Trọng Viễn, ở Lạc Dương cùng hợp nhau phế ngôi Nguyên Diệp, lập Quảng Lăng vương Nguyên Cung, tức Ngụy Tiết Mẫn đế, hoặc Tiền Phế đế. Để lấy lòng Cao Hoan, Độ Luật phong Hoan làm Bột Hải vương, nhưng Hoan cự tuyệt.

Nhĩ Chu Triệu nổi giận, dẫn quân đánh Lạc Dương. Nhĩ Chu Ngạn Bá tự mình đến trại Nhĩ Chu Triệu giải thích, hòa giải. Nhĩ Chu Triệu chịu rút quân, song vẫn nghi ngờ.

Năm 531, mùa thu, Hoan khởi binh tại Tín Đô, tôn An Định vương Nguyên Lãng lên ngôi, tức Hậu Phế đế, công nhiên khiêu khích họ Nhĩ Chu. Nhĩ Chu Triệu bèn dẫn quân đến đóng ở Quảng A, Nhĩ Chu Trọng Viễn dẫn quân từ Lạc Dương, Nhĩ Chu Độ Luật dẫn quân từ Đông Quận đến muốn cùng hợp sức đánh Cao Hoan, thế rất lớn. Cao Hoan nhân họ Nhĩ Chu sẵn bất hòa, tung mưu phản gián. Nhĩ Chu Triệu vì thế nghi ngờ các đạo quân từ Lạc Dương, Đông Quận. Cựu thần của Nhĩ Chu Vinh là Hộc Tư Xuân, Hạ Bạt Thắng lúc ấy theo trong quân Nhĩ Chu Trọng Viễn bèn tới trại Nhĩ Chu Triệu giảng hòa. Triệu cố chấp không nghe. Nhĩ Chu Trọng Viễn và Độ Luật bèn rút quân. Vì thế Cao Hoan chỉ phải đối phó với Nhĩ Chu Triệu. Ông đánh Triệu thua to. Nhĩ Chu Triệu rút quân về Thái Nguyên.

Năm 532, ông chiếm Nghiệp Thành, thanh thế rất lớn. Các thế lực Nhĩ Chu phải giảng hòa với nhau để đối phó với ông, lần này có cả Nhĩ Chu Thiên Quang từ Quan Tây dẫn quân về. Song tổ chức họ Nhĩ Chu bất nhất, chỉ huy lủng củng, đối trận tại Hàn Lăng bị Cao Hoan đánh đại bại. Vì họ Nhĩ Chu bạo ngược, bị triều thần ở Lạc Dương chán ghét. Những người như Hộc Tư Xuân, Hạ Bạt Thắng, Trưởng Tôn Trĩ, Trương Hoan, Giả Hiển Trí cùng âm mưu, nhân dịp họ Nhĩ Chu bại trận, chặn, đuổi, bắt sống được Độ Luật và Thiên Quang, chém đầu Thế Long và Ngạn Bá, duy có Trọng Viễn thoát chết chạy về Giang Nam hàng Lương. Ông lại đuổi đánh Nhĩ Chu Triệu ở Tinh Châu. Triệu cùng thế, tự sát. Họ Nhĩ Chu bị xóa sổ.